1 データの用意

今回はデータの背後に潜む因果関係を推定する手法について学んでいく。データから因果関係を推定するということは,データ生成過程(Data generating process: DGP)を推定するということになる。そこで今回はデータ生成過程が分かるように架空のデータを自分で生成し,それを分析していく。

個人の所得\(Y\)と学歴\(X\)・能力\(A\)との関係についての架空データを次のように生成する(ただし\(\varepsilon\)は測定誤差などを反映した撹乱項)

\[ Y = 200 + 10A + 500X+ \varepsilon \]

  • サンプルは10万人
  • 切片は200万円
  • 能力が1上がると所得は10上昇する
  • 能力は0から100まで均等に分布する
  • 大卒だと所得が500万円上昇する
  • 大卒になる条件は2つあり,どちらかの条件を満たせば大卒になるとする
    • 条件1:能力が 80 以上の約 2 万人の中から約 1 万人がランダムに選ばれて大卒となる。
    • 条件2:能力を部分的に反映した学力テストの点数が 180 点以上であれば大卒となる(約1万人が合格する)
# 事前準備 --------------------
# パッケージの読み込み
library(tidyverse)
# 乱数の種を固定
set.seed(0)


# データの生成 ----------------
n = 100000
# 能力は0から100まで均等に分布
ability = runif(n, min = 0, max = 100)

# IDとabilityをデータフレームに格納する
df = data_frame(ID = 1:n, ability)

# 大卒フラグ
## 条件1:能力が 80 以上の約 2 万人の中から約 1 万人がランダムに選ばれて大卒となる。
college = df %>% filter(ability >= 80) %>% sample_frac(0.5) # 大卒の人
college["is_college1"] = 1
no_college = anti_join(df, college, by = c("ID","ability")) # 大卒じゃない人
no_college["is_college1"] = 0
df = bind_rows(college, no_college) %>% arrange(ID) # 両者を結合

## 条件2:能力を部分的に反映した学力テストの点数が 180 点以上であれば大卒となる
### 1万人くらいが該当するようにする
df["score"] = 30 * log10(ability) + rnorm(n, mean = 115, sd = 10)
df["is_college2"] = 1*(df["score"] >= 180)

## 2つの条件のいずれかに該当していれば大卒とする
df = df %>% mutate(is_college = case_when(is_college1 == 1 | is_college2 == 1 ~ 1, # "|"はorの記号
                                          TRUE ~ 0)) # それ以外は0
# 所得
df["income"] = 200 + 10*df["ability"] + 500*df["is_college"] + rnorm(n, sd = 50)

# 最初の6行
head(df)
## # A tibble: 6 x 7
##      ID ability is_college1 score is_college2 is_college income
##   <int>   <dbl>       <dbl> <dbl>       <dbl>      <dbl>  <dbl>
## 1     1    89.7           1  172.           0          1  1572.
## 2     2    26.6           0  143.           0          0   479.
## 3     3    37.2           0  158.           0          0   492.
## 4     4    57.3           0  172.           0          0   720.
## 5     5    90.8           1  184.           1          1  1738.
## 6     6    20.2           0  170.           0          0   328.

こうして生成したデータの所得と能力・学歴・テストの点数の関係をプロットすると次のようになる。

以下では「学歴(大卒になること)が所得をどれだけ上昇させるのか」を知ることを目的として分析していくことにする。

2 差の検定

まず,大卒と非大卒の所得の平均には統計学的に有意な差があるかどうかを\(t\)検定によって調べる。

# 大卒
is_col <- df %>% filter(is_college == 1)
# 非大卒
no_col <- df %>% filter(is_college == 0)

# それぞれのincomeを比較
t.test(x = is_col$income, y = no_col$income)
## 
##  Welch Two Sample t-test
## 
## data:  is_col$income and no_col$income
## t = 578.23, df = 42534, p-value < 2.2e-16
## alternative hypothesis: true difference in means is not equal to 0
## 95 percent confidence interval:
##  885.5263 891.5500
## sample estimates:
## mean of x mean of y 
## 1517.8572  629.3191

大卒の平均所得が約1518万円,非大卒の平均所得が約629万円であり,有意な差があることがわかった。

ただし,ここで「大卒になることで所得が1518 - 629 = 889万円上昇する」とは言い切れない。データ生成過程を考えると所得が上がる要因には「学歴」以外にも「能力」という要因があり,学歴が高い人は能力も高い人が多い構造もあるため,889という値は能力による所得上昇の効果も含まれた推定値であり,学歴による純粋な所得上昇効果を知りたいときは別の方法を使う必要がある。

3 回帰分析

3.1 回帰分析と条件付き平均値

前節の平均値の差の検定では,条件付き平均値\(E(変数|条件)\)の記法を使って表現すると,大卒者の平均所得\(E(Y|X=1)\)と非大卒者の平均所得\(E(Y|X=0)\)の差

\[ E(Y|X=1) - E(Y|X=0) \]

を調べていた。

しかしこれでは能力がどんな人であれ,大卒であるかどうかという点のみを条件に比較することになるのが問題だった。 そこで,「能力が80の人で大卒の人達の平均所得\(E(Y|X = 1,A = 80)\)と能力が80の人で非大卒の人達の平均所得\(E(Y|X = 0,A = 80)\)を比べる」「能力81がの人同士で比べる」「能力が82の人同士で比べる」…といったように,新たに条件を追加して能力の値を一定にした下で比較していけばよいと考えられる。

一般に回帰分析の予測値\(\hat{y}\)はサンプルサイズが増大するにつれて説明変数の条件付き平均値\(E(y|x)\)に近づいていく。そのため\(E(Y|X = a,A = b)\)のように複数の説明変数で条件付けた下での(他の要因の値を一定のものに固定した下での)平均値を推定することができ,これを利用して学歴\(X\)が所得\(Y\)に与える効果を推定することができる。

3.2 すべてのデータが入手可能な場合

もし,手元に所得\(Y\),能力\(A\),学歴\(X\)のデータがあるのであれば,

\[ Y = \beta_0 + \beta_1 A + \beta_2 X + u \]

という回帰モデルによって係数\(\beta_0,\beta_1,\beta_2\)を推定できる。

ols_A <- lm(formula = income ~ ability + is_college, data = df)

library(stargazer)
stargazer(ols_A, type = "text")
## 
## ====================================================
##                           Dependent variable:       
##                     --------------------------------
##                                  income             
## ----------------------------------------------------
## ability                         9.990***            
##                                 (0.006)             
##                                                     
## is_college                     500.706***           
##                                 (0.479)             
##                                                     
## Constant                       200.223***           
##                                 (0.325)             
##                                                     
## ----------------------------------------------------
## Observations                    100,000             
## R2                               0.986              
## Adjusted R2                      0.986              
## Residual Std. Error       49.949 (df = 99997)       
## F Statistic         3,572,277.000*** (df = 2; 99997)
## ====================================================
## Note:                    *p<0.1; **p<0.05; ***p<0.01

ほとんどぴったり推定することができた。

3.3 入手不可能なデータがある場合

実際には個人の能力は測定できず,データとして入手することは不可能である。能力を部分的に反映した「学力テストの点数\(S\)」を能力の代理変数として使用する場合の回帰モデル

\[ Y = \beta_0 + \beta_1 S + \beta_2 X + u \]

を考えてみる。

ols_S <- lm(formula = income ~ score + is_college, data = df)
stargazer(ols_S, type = "text")
## 
## ==================================================
##                          Dependent variable:      
##                     ------------------------------
##                                 income            
## --------------------------------------------------
## score                         10.036***           
##                                (0.045)            
##                                                   
## is_college                    681.003***          
##                                (1.937)            
##                                                   
## Constant                     -958.299***          
##                                (7.192)            
##                                                   
## --------------------------------------------------
## Observations                   100,000            
## R2                              0.764             
## Adjusted R2                     0.764             
## Residual Std. Error      206.569 (df = 99997)     
## F Statistic         161,790.600*** (df = 2; 99997)
## ==================================================
## Note:                  *p<0.1; **p<0.05; ***p<0.01

学歴が大卒になることによる所得上昇の効果は約681(万円)と推定された。データ生成時に設定した本来の値500よりも過大に推定されている。

このように,正しく推定するために必要な変数(能力\(A\))が説明変数に入っていないことによって推定値が真の値よりも偏ることを欠落変数バイアス(omitted variable bias)という。

4 マッチング分析

マッチング分析は,因果効果を推定したい変数(処置変数treatment variableと呼ばれる。今回の例では学歴\(X\))以外の説明変数(共変量covariatesと呼ばれる。今回の例では能力\(A\))が同じ値あるいは近い値の個体同士を比較する手法である。

Rでは{Matching}パッケージで実行できる。

# パッケージのインストール
install.packages("Matching")

4.1 すべてのデータが入手可能な場合

マッチング分析も回帰分析と同じで,必要な共変量を入手できるかどうかの影響を受ける。

能力\(A\)が入手できる場合は次のように推定される。

library(Matching)
# 最近傍マッチング
match_nn <- Match(Y = df$income,      # 被説明変数・結果変数
                  Tr = df$is_college, # 処置変数
                  X = df$ability,     # 共変量
                  version = "fast",   # 一部の処理を省略して計算量を減らす設定
                  Weight = 1)         # ユークリッド距離に基づくマッチング
summary(match_nn)
## 
## Estimate...  500.59 
## SE.........  0.52348 
## T-stat.....  956.28 
## p.val......  < 2.22e-16 
## 
## Original number of observations..............  100000 
## Original number of treated obs...............  18107 
## Matched number of observations...............  18107 
## Matched number of observations  (unweighted).  1708100

大卒の効果をきちんと推定できている。

4.2 入手不可能なデータがある場合

入手できない能力\(A\)の変数の代わりにテストの点数\(S\)を使用した場合

# 最近傍マッチング
match_nn <- Match(Y = df$income,      # 被説明変数・結果変数
                  Tr = df$is_college, # 処置変数
                  X = df$score,       # 共変量
                  version = "fast",   # 一部の処理を省略して計算量を減らす設定
                  Weight = 1)         # ユークリッド距離に基づくマッチング
summary(match_nn)
## 
## Estimate...  835.96 
## SE.........  1.6691 
## T-stat.....  500.83 
## p.val......  < 2.22e-16 
## 
## Original number of observations..............  100000 
## Original number of treated obs...............  18107 
## Matched number of observations...............  18107 
## Matched number of observations  (unweighted).  1645009

欠落変数バイアスを抱えた推定値となった。